Khi Nhật-Nga chiến tranh nổ ra Makarov được điều sang Viễn đông chỉ huy hạm đội Nga ở Lữ Thuận.

Ngày 13 Tháng Tư 1904 Makarov chỉ huy kỳ hạm Petropavlovsk truy kích đội chiến thuyền của Nhật ở Hoàng Hải. Khi quay về bến, tàu trúng thủy lôi và chìm. Makarov chết theo tàu. Người Nhật vớt được xác ông đem tống táng theo nghi lễ.[1][2]